IA Mythos: o medo virou produto - resenha crítica

Quem já passou dos quarenta carrega um arquivo mental de fins do mundo que não chegaram. O bug do milênio que ia derrubar os aviões, a internet que ia corromper as crianças, a clonagem que ia fabricar exércitos sob encomenda. Cada década entrega a sua catástrofe definitiva, anunciada com a mesma convicção, e quase todas terminam não com uma explosão, mas com uma assinatura mensal.

A catástrofe desta semana tem nome. Chama-se Claude Mythos, e na terça-feira, nove de junho, ganhou uma versão que qualquer assinante pode usar.

Do cofre trancado à prateleira

A empresa americana Anthropic passou os últimos meses dizendo ao mundo que havia construído algo perigoso. O modelo, segundo a própria companhia, encontra e explora falhas de segurança melhor que especialistas humanos, incluindo uma brecha que passou despercebida em um sistema por vinte e sete anos. Em vez de liberar a ferramenta de imediato, a empresa a trancou, distribuiu o acesso a um grupo seleto de gigantes da tecnologia e avisou, com todas as letras, que aquilo poderia abalar a segurança dos sistemas financeiros.

O recado foi ouvido. Ministros das finanças levaram o assunto a uma reunião do Fundo Monetário Internacional, em Washington, e diretores de bancos centrais começaram a falar em risco de crime cibernético com uma seriedade que costumam reservar a crises de verdade. Por algumas semanas, a conversa girou em torno de uma única pergunta: o que acontece quando a ferramenta capaz de arrombar quase qualquer cofre digital deixa de ser segredo de poucos.

Até aqui, a história era a de uma ameaça. O que mudou na terça-feira foi o gênero. A Anthropic abriu o acesso público a um modelo da mesma família, com freios automáticos que desviam pedidos sensíveis, em cibersegurança e biologia, para um sistema menos capaz. O perigo anunciado virou catálogo. E o lançamento chega poucos dias antes de a empresa abrir seu capital em bolsa, num momento em que sua avaliação de mercado superou a da rival OpenAI pela primeira vez. A versão pública saiu, convém notar, pela metade do preço que a companhia cobrava pelo acesso restrito. O fim do mundo entrou em promoção.

Pavor e encanto no mesmo balcão

Há um padrão aqui mais antigo que qualquer algoritmo. Toda tecnologia que importou de verdade chegou embrulhada em duas histórias contadas ao mesmo tempo: a da salvação e a do apocalipse. O telégrafo foi acusado de esgotar os nervos de quem o operava. O trem, no começo, foi descrito como capaz de sufocar os passageiros pela velocidade. O bug do milênio mobilizou bilhões de dólares e madrugadas inteiras de engenheiros, e quando o relógio virou, quase nada explodiu, em boa parte porque tanta gente trabalhou exatamente para que não explodisse. O pânico, naquele caso, foi o que evitou a tragédia, o que tornou o pânico difícil de avaliar depois.

A indústria de tecnologia aprendeu a lição comercial dessa dança. O medo e o encanto não competem entre si, eles se vendem juntos, no mesmo balcão. O mesmo comunicado que avisa "isto pode quebrar o sistema financeiro" também sugere, nas entrelinhas, "e só nós sabemos consertar". Não é necessariamente cinismo. É que a fronteira entre alertar e anunciar ficou fina demais para o olho perceber, e quem fabrica o problema costuma ser também quem vende o antídoto.

Convém dizer com clareza que parte do alarme é legítima. Pesquisadores independentes ainda não puderam testar o modelo a fundo, e os que tiveram acesso descreveram uma capacidade real de achar problemas que humanos não enxergam, em códigos antigos que ninguém mais lia. O ponto não é que a ameaça seja inventada. É que ela vem acompanhada de nota fiscal, e isso deveria mudar a temperatura com que a lemos.

A porta destrancada ainda é o problema

Enquanto as manchetes disputavam o título de mais aterrorizante, os órgãos que cuidam de segurança a sério adotaram um tom curiosamente entediado. A orientação do órgão britânico de cibersegurança foi quase decepcionante na sua sensatez: não entre em pânico e conserte o básico, porque a maioria dos ataques não precisa de superinteligência, os golpes simples seguem dando conta do recado. O criminoso médio continua entrando pela porta destrancada, não pela parede de concreto.

O ex-chefe do centro de cibersegurança do Reino Unido, Ciaran Martin, resumiu a ferramenta como "um hacker muito bom" e, no mesmo fôlego, apontou a saída que quase ninguém estava ouvindo no meio do barulho: no médio prazo, existe a chance de usar essas mesmas ferramentas para corrigir as fragilidades antigas da internet, falhas que envelheceram esquecidas dentro de sistemas que o mundo inteiro usa. A faca que assusta também apara.

O que fazer com essa informação

Nem todo leitor precisa reagir do mesmo modo a uma notícia como essa. Depende muito de onde você está sentado.

Se você decide sobre risco em uma organização, a leitura útil não é o pânico nem o desdém, é a higiene. As práticas básicas de segurança que protegiam contra os ataques de ontem continuam sendo a primeira linha de defesa contra os de amanhã. A novidade tecnológica raramente muda o conselho fundamental: o que está mal cuidado é o que cai primeiro, com ou sem inteligência artificial do outro lado.

Se você apenas acompanha o noticiário e quer entender o que está em jogo, o exercício mais valioso é separar o relógio do calendário. Capacidade técnica é uma coisa, prazo de impacto é outra. A história das catástrofes anunciadas mostra que o intervalo entre o "isto muda tudo" e o "isto mudou alguma coisa" costuma ser mais longo, e bem mais administrável, do que a manchete promete na véspera.

E se você trabalha perto da tecnologia, o ponto mais desconfortável talvez seja este: o mesmo poder que rende manchetes de medo é o que pode, em silêncio, tornar a infraestrutura digital menos frágil. A parte ingrata desse trabalho, corrigir falhas velhas que ninguém celebra, quase nunca vira notícia. Só reparamos no encanamento quando ele estoura.

No fim, a pergunta que sobra não é se a ferramenta é poderosa. Ela é. A pergunta é se conseguimos manter a cabeça fria o bastante para usá-la com juízo antes que a próxima catástrofe definitiva entre em cartaz. Porque ela vai entrar. Sempre entra.